Collaborative Memory Augmentation for Generative Recommendation
协作记忆增强的生成式推荐框架
🧭 生成式推荐 · 协同记忆增强 ★ 深度解读
Renmin University of China · ByteDance
提出 OMEGA 框架，通过潜在压缩记忆库和目标感知检索将全局协同信号显式注入生成式推荐
📌 工作参考价值（5 点）
- 记忆增强可无痛嫁接现有 GR 模型：OMEGA 是模型无关的框架，仅需增加跨注意力模块和记忆检索，即可对 TIGER、Pctx、SETRec 等 backbone 带来一致提升（NDCG@5 相对提升 16%~23%）。推荐团队可在现有生成式召回/排序模型上以轻量 fine-tuning 方式接入。
- 潜在压缩降低在线存储与检索成本：用 C 个可学习 query token 将变长序列压缩为固定维度嵌入（C=2 时已接近无损），存储开销极小。实际部署时还可以结合聚类裁剪记忆库，只用 1% 的记忆容量即可保持效果，适合大规模工业检索。
- 目标感知检索提升记忆相关性：单纯按序列相似度检索效果差，引入目标 item 相似度（加权系数 α≈0.2~0.3）能更好地抓住“与当前意图相关的行为模式”。这一思想可直接用于电商搜索/推荐中的 RAG 或记忆增强模块。
- 两阶段微调策略防止语义漂移：先冻结 backbone 只训跨注意力模块，再联合微调，避免记忆信号污染预训练表示。类似做法在 Agent 引入外部工具或记忆时也可借鉴。
- 检索器质量决定天花板：更强的检索器（如 HSTU 优于 SASRec）能带来更大增益，但效果并非简单模型蒸馏，而是记忆提供了独立于检索器的额外上下文信息。这意味着可以单独优化检索器来提升整个记忆增强系统的效能。